一個擁有270億參數的大模型,正在被壓縮到手機可以運行的規模。
2026年7月,矽谷創業公司 PrismML 發佈 Bonsai 27B 模型,通過低位元量化等技術,將原本需要數十GB空間的大模型壓縮至約3.9GB,並實現消費級裝置上的本地運行。
這件事真正值得關注的,並不是手機性能又提升了一次,而是人工智慧產業正在出現一個新的變化:過去幾年,AI能力主要集中在雲端伺服器中,使用者通過網路呼叫模型;而未來,一部分AI能力可能直接進入手機、電腦和其他智能裝置。
AI正在從“雲端服務”,走向“端側智能”。